基于深度学习的Stack Overflow问题帖分类方法

针对基于正则表达式和传统机器学习的分类方法分别存在模式手工提取困难和性能瓶颈的问题, 提出一种基于深度学习的问题帖分类方法, 采用深度文本挖掘模型TextCNN和融合注意力机制的TextRNN构建分类模型. 实验结果表明, 基于深度学习的方法在多数问题目的类别上的分类性能优于已有基准方法, 且使用的Adam优化器优于SGD优化器, 使用Glove预训练的词向量优于使用随机生成的词向量. 该方法以提问目的对帖子进行分类, 可为分析Stack Overflow(SO)上的帖子讨论主题增加新维度.     

一种基于类不平衡学习的情感分析方法

针对网络评论中普遍存在的负面评论较少而影响力却较大的类不平衡问题, 提出一种基于类不平衡学习的情感分析方法. 该方法利用深度学习训练过程中的概率输出, 以计算样例的信息熵作为影响因子构建交叉信息熵损失函数. 在IMDB公开数据集上进行实验验证的结果表明, 基于集成信息熵损失函数的双向长短期记忆网络能处理类不平衡问题; 对数据的统计分析结果表明, 该策略能提升基于双向长短期记忆网络的评论情感极性分类性能. 针对AUC(area under curve)指标, 使用集成信息熵损失函数的双向长短期记忆网络模型比未考虑类不平衡的深度学习模型在中位数上最多提升15.3%.     

多策略融合的俄语文本词语提取方法研究

俄语是联合国工作语言之一,是俄罗斯等多个国家的官方语言。随着“一带一路”倡议的推进和全球化进程的加快,俄语文本数据成为有关组织管理决策的重要信息来源,俄语文本挖掘也因而成为重要的管理决策支持方法。然而,俄语文本挖掘方法研究目前还远未成熟,尤其是其关键基础——俄语文本词语提取的性能较低,阻碍着俄语文本建模的准确性。因此,文章提出一种多策略融合的俄语文本词语提取方法,结合俄语词性分析、语法规则和串频统计等多种方法,自动提取包含单词和短语在内的俄语词语。在联合国平行语料库和Taiga Corpus语料库上的实验结果表明,文章提出的方法在保证高召回率的同时,达到了85%以上的高准确率,显著优于常用的n-gram方法,能够为俄语文本主题发现和文本分/聚类等文本挖掘应用提供有效的词库。     

Forecasting economic indicators using a consumer sentiment index: Survey‐based versus text‐based data

Given the confirmed effectiveness of the survey‐based consumer sentiment index (CSI) as a leading indicator of real economic conditions, the CSI is actively used in making policy judgments and decisions in many countries. However, although the CSI offers qualitative information for presenting current conditions and predicting a household's future economic activity, the survey‐based method has several limitations. In this context, we extracted sentiment information from online economic news articles and demonstrated that the Korean cases are a good illustration of applying a text mining technique when generating a CSI using sentiment analysis. By applying a simple sentiment analysis based on the lexicon approach, this paper confirmed that news articles can be an effective source for generating an economic indicator in Korea. Even though cross‐national comparative research results are suited better than national‐level data to generalize and verify the method used in this study, international comparisons are quite challenging to draw due to the necessary linguistic preprocessing. We hope to encourage further cross‐national comparative research to apply the approach proposed in this study.     

系统功能语法与语篇分析

本文首先讨论了系统功能语法语篇分析的基本理论,包括语言的三大纯理功能及其各自实现的子系统、语篇分析的两个层次以及"语境→语篇→评价("联系语境变量)的分析步骤,并用该模式分析了一个完整的语篇。分析表明用系统功能语法框架对语篇进行分析可以揭示语篇深层含义,可以解释语篇的语义和文体特点。     

决策树在文本分类中的应用

介绍了文本分类的思想,探讨了通过决策树学习来对文本进行有效分类的过程。     

基于预训练模型和混合神经网络的医疗实体关系抽取

医疗文本具有实体密度高、句式冗长等特点,简单的神经网络方法不能很好地捕获其语义特征,因此提出一种基于预训练模型的混合神经网络方法。首先使用预训练模型获取动态词向量,并提取实体标记特征;然后通过双向长短期记忆网络获取医疗文本的上下文特征,同时使用卷积神经网络获取文本的局部特征;再使用注意力机制对序列特征进行加权,获取文本全局语义特征;最后将实体标记特征与全局语义特征融合,并通过分类器得到抽取结果。在医疗领域数据集上的实体关系抽取实验结果表明,新提出的混合神经网络模型的性能比主流模型均有提升,说明这种多特征融合的方式可以提升实体关系抽取的效果。     

自主式交通系统功能架构优化密度峰值聚类算法

自主式交通系统(autonomous transportation system, ATS)是为应对主动式智慧交通发展趋势而提出的新一代交通系统。为科学合理地构建ATS功能架构,提出了一种面向多属性文本的优化密度峰值聚类算法(density peaks clustering, DPC)。该算法结合交通系统功能架构的基本特征,通过改进的词频-逆向文档频率算法与文本向量空间模型,将多属性文本转化成空间维度坐标。再利用高斯函数和决策值优化DPC算法进行聚类,并结合轮廓系数对聚类结果进行评价。为了检验算法的合理性,在ATS道路自动驾驶场景下,基于道路载运工具运行服务域、交通基础设施管理服务域和交通安全管理服务域的功能数据集进行了算例分析,依据聚类结果绘制功能架构图。架构图由自主感知-自主学习-自主决策-自主响应4层构成,验证了ATS应用场景中功能架构优化算法的可行性和合理性。算例结果表明：该算法的构建具有鲁棒性,算例轮廓系数整体均值为0.84,与原算法相比解决了聚类过程中聚类中心难以划定的问题;与原智能交通系统中的各架构设计相比,该功能架构更具有层次性和逻辑性。该优化算法能够促进新一代交通系统...     

基于Bert股吧舆情分析的特征融合股价走势预测研究

传统股价预测模型往往只考虑时序性数据且局限于模型自身机制,而忽略舆情对股价的影响,导致预测精度不高,针对该问题,提出基于 Bert 股吧舆情分析的特征融合预测模型对股价收盘价进行涨跌幅预测。 首先,采用Bert 自然语言处理对股吧舆情以及公司公告政策进行情感分类,并转化为虚拟变量,构建金融舆情情感特征库;然后将金融舆情特征库和时序性数据合并构建特征融合矩阵;最后输入长短期记忆网络模型(LSTM)进行股价收盘价预测,并得出股价的涨跌结果。 以华银电力(600744. SH)为例进行实证分析,实验结果表明:引入股票情感特征后的模型,得到的股价走势准确率上升了 8. 63%,预测收盘价的回归指标 FMAPE FRMSE 分别下降了 23. 59%、22. 9%,R2 提高了 8. 11%,证明引入新的舆情情感特征在实际预测中能提高股价预测的准确率,可以作为精准预测股价走势的手段。     

基于词-标签概率的多标签文本分类研究

针对多标签文本分类任务中如何有效地提取文本特征和获取标签之间潜在的相关性问题,提出一种CNN(convolutional neural networks)结合Bi-LSTM (bi-directional long short-term memory)的模型.首先,通过CNN网络和最大池化提取文本的特征;然后,利用训练的Labeled-LDA(labeled latent dirichlet allocation)模型获取所有词与标签之间的词-标签概率信息;接着,使用Bi-LSTM网络和CNN网络提取当前预测文本中每个词的词-标签信息特征;最后,结合提取的文本特征,预测与当前文本相关联的标签集.实验结果表明,使用词-标签概率获取文本中词与标签之间的相关性信息,能够有效提升模型的F1值.